Un hombre de Florida, EE. UU., fue arrestado por presuntamente usar inteligencia artificial para generar pornografía infantil y enfrenta hasta 20 cargos de obscenidad. Este trabajador de cine distribuyó imágenes de pornografía infantil creadas con un generador de imágenes de IA en la aplicación social Kik, lo que provocó una amplia preocupación. El caso involucra el uso indebido de la inteligencia artificial generativa, lo que impulsa a los legisladores a impulsar leyes para prohibir la difusión de contenido inapropiado. El año pasado, el Centro Nacional para Niños Desaparecidos y Explotados recibió 4700 denuncias relacionadas, incluyendo el uso de IA generativa para crear deepfakes de niños reales para extorsión.

Los 50 fiscales generales de Estados Unidos piden al Congreso que cree un comité para estudiar el impacto de la pornografía infantil generada por IA. El comité debería proponer soluciones para evitar que la IA se utilice para generar contenido falso de abuso sexual infantil. Se pide que se amplíe el alcance legal para incluir explícitamente la pornografía infantil generada por IA como delito.